최근 AI 학회에서 LLM(대형 언어 모델)의 작동 방식에 내재된 근본적인 보안 취약점이 발표되었으며, 이로 인해 해킹을 통한 악용이 불가피하다는 연구 결과가 나왔습니다. 또한, 첨단 드릴링 기술로 폐업 위기의 지열 발전소를 성공적으로 재가동한 사례와 함께, AI 반도체 붐으로 인해 국내 반도체 업계 종사자들이 최고의 결혼 상대로 떠오른 흥미로운 현황을 전합니다.
최근 연구에 따르면, LLM(대형 언어 모델)이 명령어의 출처를 구분하는 근본적인 메커니즘의 결함으로 인해 완벽한 보안을 구현하는 것은 불가능에 가깝습니다. 연구진은 모델의 '사고 사슬(Chain of Thought)'을 위장하는 프롬프트를 통해 주요 AI 모델들의 안전장치를 우회하고 유해 정보를 쉽게 얻어냈습니다. 이는 기존의 레드팀(Red-teaming) 방식이 한계가 있음을 증명하며, AI를 활용하는 모든 산업 분야에서 보다 근본적인 안전 대책 마련이 시급함을 시사합니다.
미국 트럼프 행정부는 안트로픽(Anthropic)이 사이버 행정명령을 위반하고 승인 없이 모델을 출시했다며 비난하고 있습니다. 하지만 AI 업계와 보안 전문가들은 LLM(LLM)의 탈옥(jailbreak)이나 프롬프트 인젝션 등 해킹 위험을 원천 차단하는 것은 현재 기술상 불가능에 가깝다고 지적합니다. 과도한 규제가 산업 발전을 저해할 수 있다는 전문가들의 우려도 커지고 있습니다.